Attaques au niveau du modèle et comment se défendre contre eux | Série de sécurité AI

Jusqu'à présent, dans cette série, nous avons expliqué pourquoi la sécurité des applications AI, comment modéliser les menaces et comment protéger vos données de formation et d'inférence. Mais maintenant, nous entrons dans le cœur du système: le modèle lui-même.

Que vous appeliez une API LLM hébergée ou que vous déployiez votre propre transformateur affiné, il existe des moyens de motifs peuvent être abusés, manipulés ou même volés, souvent sans laisser de traces évidentes.

Décomposons le type d'attaques cibler le modèle lui-même et ce que vous pouvez faire pour les atténuer.

Qu'est-ce qu'une attaque «au niveau du modèle»?

Contrairement à l'injection rapide (qui manipule les entrées), les attaques au niveau du modèle visent à:

• Extraire des données privées Le modèle mémorisé
• Infarnage inversé le modèle ou ses poids
• Forcer le modèle à mal se comporter (délibérément ou subtilement)
• Reproduire les sorties d'un modèle à travers les inondations de requête

Ces...
[Courte citation de 8% de l'article original]